Resenha de Behind the Screen: Content Moderation in the Shadows of Social Media, de Sarah T. Roberts (Yale University Press, 2019).
No coração do Eastwood Mall, em Quezon City, Filipinas, ergue-se um monumento aos “homens e mulheres que encontraram propósito e paixão na indústria de terceirização de processos de negócios”. Cercado por pássaros de aço voadores, um homem e duas mulheres presidem esse pequeno pedaço de Metro Manila, vestidos com fones de ouvido e pastas, encarando um futuro orgulhoso. A poucos passos dali, há um Coffee Bean & Tea Leaf onde Sarah T. Roberts entrevistou um grupo de moderadores de conteúdo comercial para seu livro, Behind the Screen: Content Moderation in the Shadow of Social Media (Por Trás da Tela: Moderação de Conteúdo à Sombra das Redes Sociais).
A moderação de conteúdo comercial, ou CCM, descreve um dos trabalhos mais sujos na internet corporativa: revisar e remover conteúdo violento, racista e perturbador postado em sites de redes sociais como Facebook e YouTube, e nas seções de comentários de sites de produtos de consumo. Esse trabalho sujo fica a cargo de pessoas como esses três trabalhadores de escritório de ferro fundido, que realizam esse trabalho digital a poucos passos do shopping.
Na narrativa de Roberts, os fatores econômicos e sociais que produzem nossas experiências online relativamente higienizadas também criam uma classe global de trabalhadores vinculados uns aos outros pelas condições compartilhadas de moderação de conteúdo comercial: contingência, salários cada vez mais baixos, velocidades de trabalho e quotas sempre crescentes, e exposição aos piores elementos da humanidade, repetidas vezes, em turnos ininterruptos.
Roberts entrevista trabalhadores individuais de muitos setores onde a triagem de conteúdo é feita: trabalhadores filipinos de BPO (terceirização de processos de negócios) que assumem empregos de CCM quando posições mais competitivas em centrais de atendimento não estão disponíveis; jovens graduados em São Francisco, cujos grandes sonhos de tecnologia se transformam em realidades de trabalho temporário a longo prazo; e executivos de empresas contratantes americanas que comercializam seus moderadores humanos como americanos, uma xenofobia que se encaixa bem na política contemporânea dos EUA.
Alguns de seus informantes se concentram em seus próprios traumas psicológicos decorrentes do conteúdo com o qual se envolvem repetidamente. Outros lamentam salários decrescentes, instabilidade no emprego e a falta de benefícios do empregador como as piores partes do trabalho. Online, argumenta Roberts, o prazer que temos ao compartilhar fotos de crianças e memes, e ao assinar petições online, só é possível graças aos trabalhadores de processamento de negócios de Manila ao Vale do Silício, todos clicando através dos detritos da web social, tornando o espaço seguro contra filmes de assassinato e pornografia infantil.
“As regras de engajamento estão sujeitas a acordos confidenciais, os moderadores trabalham em cubículos e centros de chamadas, e o trabalho não é mais um trabalho de amor à comunidade, mas apenas mais um trabalho temporário mal remunerado.“
A moderação humana de conteúdo online não é algo novo. Nos primeiros dias da web, conforme Roberts recorda de sua própria experiência, a moderação era em si uma questão social. Os “mods” eram parte das comunidades que moderavam, seus papéis conhecidos e respeitados pelos participantes. A moderação nesses contextos visava manter e facilitar normas para que o MUD, BBS ou grupo Usenet pudesse funcionar de maneira colegiada. Todos sabiam que a moderação era essencial para um ambiente de jogo ou sala de bate-papo funcional, e embora os primeiros dias certamente não fossem livres de conflitos, o papel e a importância dos moderadores não estavam em disputa.
Avance para a internet contemporânea, e a moderação de conteúdo parece um pouco diferente. Não mais dominada por participantes da comunidade cuja identidade é conhecida por todos, os moderadores são invisíveis, o fato da moderação, diz Roberts, é quase secreto. Roberts aborda esse segredo em seu livro, usando pseudônimos para informantes e algumas das empresas para as quais trabalham, consciente do sigilo corporativo que coloca esses trabalhadores em risco.
A responsabilidade por manter as normas da comunidade online é realizada por trabalhadores para aumentar o lucro das grandes empresas de mídia social para as quais trabalham. As regras de engajamento estão sujeitas a acordos confidenciais, os moderadores trabalham em cubículos e centros de chamadas, e o trabalho não é mais um trabalho de amor à comunidade, mas apenas mais um trabalho temporário mal remunerado de Quezon City ao Vale do Silício.
Além deste pequeno grupo de trabalhadores filipinos, Roberts conduziu extensas entrevistas com alguns moderadores de conteúdo comercial que trabalham no Vale do Silício. O fato de sua pesquisa levá-la a dois locais onde o capital global é exibido de maneira reluzente e extravagante oferece um contraste marcante com as condições de trabalho de ambos. Os moderadores de conteúdo da Califórnia são em sua maioria recém-formados universitários que aceitam empregos neste setor na esperança de que moderar conteúdo para o Facebook e empresas semelhantes os leve a carreiras no setor de tecnologia altamente remunerado.
O que eles encontram, no entanto, é que ocupam o crescente setor de trabalhadores terceirizados e contratados da nova “economia gig”. Embora possam revisar conteúdo para empresas conhecidas, seus pagamentos vêm de agências temporárias. Suas posições têm prazo limitado, pagam mais do que você ganharia servindo café em uma Starbucks, mas muito menos do que você conseguiria com um “emprego real” na empresa, e carecem de benefícios como licença médica, licença de férias e seguro saúde que tornam trabalhar na América viável.
Do outro lado do planeta, seus compatriotas filipinos enfrentam algo muito parecido: trabalhar para empreiteiros, não para empresas, com salários que outrora eram relativamente altos no mercado de trabalho local, mas vêm despencando desde meados dos anos 2000 diante de uma corrida global para baixar os salários dos trabalhadores. Enquanto os moderadores americanos falam muito sobre a dificuldade do que veem, os trabalhadores filipinos de Roberts falam mais sobre os compromissos do trabalho de BPO não vocal: o pagamento é drasticamente menor, mas não há lidar com americanos irritados gritando com você ao telefone.
Na análise de Roberts, os perigos desse trabalho são compartilhados além das fronteiras nacionais. Moderadores de conteúdo comercial enfrentam condições de trabalho semelhantes na Megaworld e nas corporações americanas não nomeadas no Vale do Silício: trabalho principalmente por contrato e seus salários deprimidos e falta de benefícios; exposição a violações extremas das normas sociais em torno de sexualidade e violência e os danos psicológicos decorrentes disso. Roberts se concentra na vida emocional de seus informantes e no impacto psicológico de limpar a internet, especialmente no contexto americano.
As discussões documentadas por Roberts nas Filipinas soam diferentes. Falamos menos sobre a necessidade de intervenções de saúde mental no local de trabalho e mais sobre como a competição com a Índia para fornecer mão de obra barata para as corporações americanas está aumentando a velocidade e o número de imagens que os trabalhadores de Quezon City precisam moderar a cada turno. É um lembrete da estrutura ideológica e sócio-histórica de sentimentos: o que importa para esses trabalhadores enquanto clicam através do pior da internet depende do contexto em que cada imagem pisca na tela.
O que os trabalhadores de São Francisco e Metro Manila têm profundamente em comum é tanto a necessidade de seu trabalho — Roberts apresenta um argumento claro de que a internet sem moderadores comerciais seria impossível de navegar — quanto sua total descartabilidade nas mãos das gigantes de tecnologia globais. Ao longo do livro, Roberts se refere aos moderadores de conteúdo comercial como “profissionais”, uma designação que não é definida e parece não condizer com as condições de trabalho que ela descreve.
Profissional evoca pastas e fones de ouvido como os do monumento BPO no Eastwood Mall, não os contratos temporários instáveis e as quotas intensificadas que realmente estruturam essas posições. O termo parece quase um desejo: se essas tarefas pudessem ser profissionalizadas, os trabalhadores seriam respeitados, bem remunerados e receberiam benefícios. Isso, é claro, não é como as condições de trabalho são transformadas, e Roberts oferece uma variedade de soluções potenciais: transparência legalmente exigida em torno das políticas de moderação, mudanças nos hábitos de consumo de mídia social por parte dos consumidores, aconselhamento de saúde mental para moderadores e organização sindical, que já está ocorrendo entre trabalhadores de tecnologia em São Francisco e Seattle, e entre trabalhadores de BPO em Manila.
O desafio, então, é imaginar formas para trabalhadores mantidos muito atrás da tela, separados uns dos outros por milhas, por interfaces de computador e por contratos terceirizados, encontrarem uma causa comum contra os Facebooks do mundo.
Sobre os autores
Emily Drabinski
é Bibliotecária de Pedagogia Crítica no Centro de Pós-Graduação CUNY.
